Cơ quan được thành lập từ năm 1927, ban đầu có tên Ủy ban Giám sát Trung ương Đảng Cộng sản Trung Quốc. Sau khi thàn lập Cộng hòa Nhân dân Trung Hoa, Ủy ban đổi tên thành Ủy ban Kiểm tra Kỷ luật Trung ương Đảng Cộng sản Trung Quốc, sau đó 1955 đổi tên thành Ủy ban Giám sát Trung ương Đảng Cộng sản Trung Quốc. Trong thời kỳ Cách mạng Văn hóa, cơ quan bị giải thể và sáp nhập mãi đến năm 1978 mới được khôi phục trở lại.